今天從昨天學習到的知識延伸，來了解「分類與回歸」。

分類
如邏輯回歸、K最近鄰（KNN）、支持向量機（SVM）等。
功能為討如何選擇正確的算法，以及如何處理多分類問題。
以下結合AI人臉辨識舉例。

1. 邏輯回歸（Logistic Regression）在人臉辨識中的應用

• 應用場景：簡單的人臉驗證（例如判斷某個人是否是特定的個人，二分類問題）。
• 範例：身份驗證
• 任務：當一個人站在攝像頭前，系統需要判斷此人是否是授權進入系統的用戶。
• 邏輯回歸的應用：模型輸入提取的臉部特徵（如眼睛、鼻子、嘴巴等相對位置）作為特徵，並預測是否是特定個人（例如是/不是公司員工）。該應用屬於二分類問題，邏輯回歸可以根據臉部特徵輸出分類結果。

2. K最近鄰（K-Nearest Neighbors, KNN）在人臉辨識中的應用

• 應用場景：基於樣本的最近鄰搜索，適合小規模的人臉識別系統（例如人數較少的數據庫）。
• 範例：社交網絡中的人臉標記
• 任務：在社交網絡上自動標記圖片中的人臉，根據已知的人臉資料庫識別圖片中的人是誰。
• KNN的應用：KNN可以根據照片中提取的臉部特徵，找到最相似的人臉並進行標記。系統會將新的人臉特徵與數據庫中的已知臉部特徵進行比較，並根據距離選擇最近的鄰居來確定人臉身份。

3. 支持向量機（SVM）在人臉辨識中的應用

• 應用場景：大型數據集中的高精度人臉識別，適合高維度、線性或非線性的人臉分類。
• 範例：監控系統中的人臉識別
• 任務：監控系統通過視頻流識別特定人物，例如在大人群中找到嫌疑犯。
• SVM的應用：SVM擅長在高維度數據中找到分類邊界。輸入臉部圖像後，通過特徵提取將臉部轉換為一組高維度特徵（如像素強度、局部二值模式等）。SVM可以根據這些特徵找到不同人臉類別之間的最優分割超平面，從而精確區分不同的個體，尤其在非線性分類中表現出色。

綜合應用場景
在實際的人臉識別應用中，這三種算法可以根據需求組合使用：

• 小規模識別（如家庭門禁系統）：可以使用KNN，快速找到最相似的鄰居。
• 二分類驗證（如進入公司辦公區）：可以使用邏輯回歸進行簡單的二分類驗證。
• 大規模人臉識別（如機場安全系統）：使用SVM來處理大量人臉數據並準確分類。
  這些算法可以輔助不同類型的人臉識別任務，在小規模系統中，KNN易於實現；對於較簡單的二分類問題，邏輯回歸是高效選擇；而在需要高精度和處理複雜數據的情況下，SVM則表現更好。

回歸
探索線性回歸、嶺回歸（Ridge Regression）、Lasso等。
功能為進一步學習如何處理連續型數據。
以下結合AI人臉辨識舉例。

1. 線性回歸（Linear Regression）在人臉識別中的應用

• 應用場景：人臉特徵的估計或數值預測（如年齡、面部表情強度等）。
• 範例：預測人臉的年齡
• 任務：系統需要從一張人臉圖像中預測該人的年齡（例如通過分析臉部的皺紋、膚色、輪廓等特徵）。
• 線性回歸的應用：首先，從人臉圖像中提取關鍵的面部特徵（如皺紋數量、皮膚紋理等）。這些特徵可以作為回歸模型的輸入變量，並通過線性回歸預測人臉年齡。回歸模型將嘗試找到輸入特徵（如臉部幾何形狀）和年齡之間的線性關係。

2. 嶺回歸（Ridge Regression）在人臉識別中的應用

• 應用場景：在人臉識別中進行特徵選擇和降維，減少過擬合，特別是在處理高維度特徵時。
• 範例：降維處理，優化人臉識別的模型精度
• 任務：系統需要處理一個大型人臉數據集，並通過特徵提取後得到一個高維度的特徵空間（例如每張臉的數千個像素值或其他提取特徵）。這樣的高維度數據容易出現過擬合問題。
• 嶺回歸的應用：嶺回歸可以用來減少特徵之間的共線性，並對模型進行正則化。嶺回歸會將輸入的高維度人臉特徵與目標變量（如身份類別）建立回歸關係，並通過正則項抑制過大的係數，從而提高模型的泛化能力，減少過擬合的風險。

3. Lasso 回歸在人臉識別中的應用

• 應用場景：在特徵選擇上更具有效率，適用於需要進行特徵選擇的場景，尤其在人臉識別中用於提取最關鍵的特徵。
• 範例：選擇最具鑑別力的臉部特徵
• 任務：在人臉識別過程中，系統從每張人臉圖像中提取了大量的特徵（如眼睛間距、鼻子高度、嘴巴寬度等）。某些特徵可能對分類不太重要，因此需要選擇最具鑑別力的特徵。
• Lasso 的應用：Lasso 回歸具有稀疏性，能夠將不重要的特徵權重壓縮為零，因此能夠自動進行特徵選擇。這在處理人臉數據時尤其有用，因為人臉識別可能依賴於少數關鍵特徵。通過 Lasso，模型可以自動排除不重要的特徵，從而提升識別效率和準確度。

綜合應用範例：AI人臉識別系統中的降維與預測
任務：在一個人臉識別系統中，目的是從大量的高維度人臉圖像數據中提取有用特徵，並進行準確的識別和預測（如年齡預測、人臉識別或面部表情分析）。

應用流程：

特徵提取：首先，使用卷積神經網絡（CNN）或其他技術從每張人臉圖像中提取高維度特徵。
特徵選擇與降維：
可以使用 嶺回歸 來進行正則化，避免模型在處理大量特徵時出現過擬合問題。
也可以使用 Lasso 回歸 來進行特徵選擇，去掉不重要的特徵，保留最具鑑別力的特徵。
預測與分類：
使用 線性回歸 預測人臉的連續特徵，如年齡或面部表情的強度。
最後，使用分類算法（如SVM）完成對身份的精確分類。
這三種回歸方法可以在不同階段輔助提升人臉識別系統的性能，如降維、特徵選擇、過擬合控制和連續變量的預測。